Supermicro amplía su cartera de productos optimizados para IA con una nueva generación de sistemas (1)
19/03 16:21   Fuente:Europa Press

(Información remitida por la empresa firmante)

-- Supermicro amplía su cartera de productos optimizados para IA con una nueva generación de sistemas y arquitecturas de bastidor que incluyen las nuevas soluciones de arquitectura NVIDIA Blackwell

Soluciones potentes y energéticamente eficientes para CSP y NSP a gran escala Incorporan una pila completa de GPU y CPU NVIDIA de próxima generación con la plataforma NVIDIA Quantum X800 y NVIDIA AI Enterprise 5.0

SAN JOSÉ, California, 19 de marzo de 2024 /PRNewswire/ -- NVIDIA GTC 2024, -- Supermicro, Inc. (NASDAQ: SMCI), un proveedor total de soluciones de TI para IA, nube, almacenamiento y 5G/Edge, anuncia nuevos sistemas de IA para IA generativa a gran escala que incluyen la próxima generación de productos para centros de datos de NVIDIA, incluido el último superchip NVIDIA GB200 Grace™ Blackwell, el NVIDIA GPU B200 Tensor Core y B100 Tensor Core. Supermicro está mejorando sus actuales sistemas NVIDIA HGX™ H100/H200 de 8 GPU para que estén listos para la NVIDIA HGX™ B100 de 8 GPU y mejorados para admitir el B200, lo que resulta en un tiempo de entrega reducido. Además, Supermicro fortalecerá aún más su amplia línea de sistemas NVIDIA MGX™ con nuevas ofertas que incluyen NVIDIA GB200, incluido NVIDIA GB200 NVL72, una solución completa a nivel de rack con 72 GPU NVIDIA Blackwell. Supermicro también está agregando nuevos sistemas a su línea, incluido el sistema 4U NVIDIA HGX B200 de 8 GPU con refrigeración líquida.

"Nuestro enfoque en la arquitectura de bloques de construcción y Total IT a escala de rack para IA nos ha permitido diseñar sistemas de próxima generación para los requisitos mejorados de las GPU basadas en la arquitectura NVIDIA Blackwell, como nuestra nueva NVIDIA HGX B200 de 8 GPU 4U con refrigeración líquida. Estos nuevos productos se basan en la probada arquitectura de sistemas HGX y MGX de Supermicro y NVIDIA, optimizando para las nuevas capacidades de las GPU NVIDIA Blackwell. Supermicro tiene la experiencia para incorporar GPU de 1 kW en una amplia gama de sistemas refrigerados por aire y por líquido, así como una capacidad de producción a escala de rack de 5000 racks/mes y anticipa ser el primero en el mercado en implementar clústeres de rack completos con GPU NVIDIA Blackwell".

La tecnología de refrigeración líquida directa al chip de Supermicro permitirá aumentar la potencia de diseño térmico (TDP) de las GPU más recientes y ofrecerá todo el potencial de las GPU NVIDIA Blackwell. Los sistemas HGX y MGX de Supermicro con NVIDIA Blackwell son los pilares del futuro de la infraestructura de IA y ofrecerán un rendimiento innovador para el entrenamiento de IA con parámetros multimillonarios y la inferencia de IA en tiempo real:

Una amplia gama de sistemas Supermicro optimizados para GPU estarán listos para las GPU NVIDIA Blackwell B200 y B100 Tensor Core y validados para el último software NVIDIA AI Enterprise, que agrega soporte para los microservicios de inferencia NVIDIA NIM. Los sistemas Supermicro incluyen:

Sistemas NVIDIA HGX B100 de 8 GPU y HGX B200 de 8 GPU

Sistema GPU PCIe 5U/4U con hasta 10 GPU

SuperBlade® con hasta 20 GPU B100 para cajas de 8U y hasta 10 GPU B100 en cajas de 6U

2U Hyper con hasta 3 GPU B100

Sistemas Supermicro 2U x86 MGX con hasta 4 GPU B100

Para entrenar modelos de IA fundamentales masivos, Supermicro está preparado para ser el primero en lanzar al mercado los sistemas NVIDIA HGX B200 8-GPU y HGX B100 8-GPU. Estos sistemas cuentan con 8 GPU NVIDIA Blackwell conectadas a través de una interconexión NVIDIA® NVLink® de quinta generación de alta velocidad a 1,8 TB/s, duplicando el rendimiento de la generación anterior, con 1,5 TB de memoria total de alto ancho de banda y ofrecerán resultados de capacitación 3 veces más rápidos para los LLM, como el modelo GPT-MoE-1.8T, en comparación con la generación de arquitectura NVIDIA Hopper. Estos sistemas cuentan con redes avanzadas para escalar a clústeres y admiten las opciones NVIDIA Quantum-2 InfiniBand y NVIDIA Spectrum-X Ethernet con una relación de GPU a NIC de 1:1.

"Supermicro continúa lanzando al mercado una asombrosa gama de servidores de plataformas informáticas aceleradas que están optimizados para el entrenamiento e inferencia de IA que pueden abordar cualquier necesidad en el mercado actual", afirmó Kaustubh Sanghani, vicepresidente de gestión de productos GPU de NVIDIA. "Trabajamos estrechamente con Supermicro para ofrecer las soluciones más optimizadas a los clientes".

Para las cargas de trabajo de inferencia LLM más exigentes, Supermicro está lanzando varios sistemas MGX nuevos creados con el superchip NVIDIA GB200 Grace Blackwell, que combina una CPU NVIDIA Grace con dos GPU NVIDIA Blackwell. Los sistemas NVIDIA MGX con GB200 de Supermicro ofrecerán un gran salto en el rendimiento para la inferencia de IA con aceleraciones de hasta 30 veces en comparación con los sistemas NVIDIA HGX H100. Supermicro y NVIDIA han desarrollado una solución a escala de rack con NVIDIA GB200 NVL72, conectando 36 CPU Grace y 72 GPU Blackwell en un solo rack. Las 72 GPU están interconectadas con NVIDIA NVLink de quinta generación para una comunicación de GPU a GPU a 1,8 TB/s. Además, para cargas de trabajo de inferencia, Supermicro anuncia el ARS-221GL-NHIR, un servidor 2U basado en la línea de productos GH200, que tendrá dos servidores GH200 conectados a través de una interconexión de alta velocidad de 900 Gb/s. Visite el expositor de Supermicro en GTC si desea disponer de más información.

Los sistemas Supermicro también admitirán la próxima plataforma NVIDIA Quantum-X800 InfiniBand, que consta del conmutador NVIDIA Quantum-X800 QM3400 y SuperNIC800, y la plataforma NVIDIA Spectrum-X800 Ethernet, que consta del conmutador NVIDIA Spectrum-X800 SN5600 y SuperNIC800. Optimizados para la arquitectura NVIDIA Blackwell, NVIDIA Quantum-X800 y Spectrum-X800 ofrecerán el más alto nivel de rendimiento de red para infraestructuras de IA.

Para obtener más información sobre las soluciones Supermicro NVIDIA, visite https://www.supermicro.com/en/accelerators/nvidia

La próxima línea de sistemas de Supermicro con NVIDIA B200 y GB200 consta de:

Los sistemas NVIDIA HGX B200 de 8 GPU enfriados por aire y líquido de Supermicro ofrecen el mayor rendimiento de entrenamiento de IA generativa. Este sistema cuenta con 8 GPU NVIDIA Blackwell conectadas a través de NVLink de quinta generación con un conjunto de memoria de gran ancho de banda de 1,5 TB (hasta 60 TB/s) para acelerar las cargas de trabajo de entrenamiento de IA.

El sistema de entrenamiento de IA más vendido de Supermicro, el sistema 4U/8U con NVIDIA HGX H100/H200 8-GPU, será compatible con el próximo HGX B100 8-GPU de NVIDIA.

Una solución Supermicro a nivel de bastidor que presenta sistemas Superchip GB200 como nodos de servidor con 2 CPU Grace y 4 GPU NVIDIA Blackwell por nodo. La refrigeración líquida directa al chip de Supermicro maximiza la densidad con 72 GPU GB200 de 192 GB (TDP de 1200 W por GPU), todo en un solo bastidor ORV3 de 44U.

Supermicro en GTC 2024

Supermicro demostrará una cartera completa de sistemas GPU para IA en el evento GTC 2024 de NVIDIA del 18 al 21 de marzo en el Centro de Convenciones de San José. Visite Supermicro en el stand nº 1016 para ver soluciones creadas para una amplia gama de aplicaciones de IA, incluido el entrenamiento de modelos de IA generativa, inferencia de IA e IA de vanguardia. Supermicro también exhibirá dos soluciones a nivel de bastidor, incluido un bastidor conceptual con sistemas que incluyen la próxima NVIDIA GB200 con 72 GPU refrigeradas por líquido interconectadas con NVLink de quinta generación.

Las soluciones de Supermicro que se exhibirán en GTC 2024 incluyen:

Bastidor de entrenamiento de IA Supermicro con refrigeración líquida que incluye 8 sistemas 4U de 8 GPU con NVIDIA HGX H200 de 8 GPU

(CONTINUA)